교황 레오 14세의 AI 관련 칙서 발표 자리에 선 앤스로픽 공동창업자 크리스토퍼 올라는 최신 AI 모델이 단순한 통계적 시스템을 넘어 인간의 뇌신경과학 구조와 유사점을 보이며 내성 및 감정과 유사한 내부 상태의 증거를 보인다고 주장했습니다. 반면 교황의 칙서는 AI가 경험이나 감정을 가진다고 착각해서는 안 되며, 강력한 법적 규제와 독립적인 감독이 필요하다고 경고하는 등 보다 신중한 입장을 견지했습니다.
저명한 과학자 리처드 도킨스가 자신이 사용한 AI 챗봇(Anthropic의 Claude)이 실제로 의식을 가지고 있다고 주장하며, 진화의 다음 단계일 수 있다는 칼럼을 발표했습니다. 도킨스는 튜링 테스트를 근거로 들며 AI의 뛰어난 언어 능력을 의식의 증거로 삼았으나, 저자는 이를 방대한 데이터를 통계적으로 학습해 재현할 뿐인 '확률적 앵무새(Stochastic Parrot)' 현상으로 설명합니다. AI의 고도화된 기술이 인간에게 마법처럼 느껴져 발생하는 착시 현상을 경계해야 한다는 점에서 중요한 논쟁을 촉발하는 기사입니다.
이 논문은 계산적 기능주의가 물리적 기반을 무시하고 정보를 오해하는 '추상화의 오류'에 빠져 있다고 비판합니다. 시뮬레이션(행동 모방)과 인스턴스화(내재적 물리적 구현)를 엄격히 구분하여, AI의 알고리즘적 기호 조작만으로는 실제 주관적 경험이나 의식을 결코 발현할 수 없음을 논증합니다.